Lý Hoài Ngọc chào đời năm 733 dưới triều vua Huyền Tông nhà Đường[2]. Sử sách không cho biết nhiều về gia thế của ông. Tính đến năm 758 thời vua Túc Tông nhà Đường, Lý Hoài Ngọc cùng anh họ ngoại là Hầu Hi Dật[3] phục vụ dưới quyền Tiết độ sứ Bình Lư[4] Vương Huyền Chí.

Năm 758, Vương Huyền Chí chết trong trận chiến với quân Sử Tư Minh. Vua Túc Tông sai sứ đến trấn Bình Lư tìm người kế nhiệm Huyền Chí. Lý Hoài Ngọc sợ rằng con trai Huyền Chí sẽ được lập làm tiết độ sứ, bèn giết người ấy đi, cùng quân trong trấn ủng hộ Hầu Hi Dật lĩnh quân vụ. Trước tình hình đó, vua Túc Tông sai sứ sắc phong Hầu Hi Dật là tiết độ phó sứ, rồi Tiết độ sứ ở Bình Lư. Sử gia Tư Mã Quang trong Tư trị thông giám chê trách việc làm này và cho rằng nó thể hiện sự bất lực của triều đình và đánh dấu sự bắt đầu trỗi dậy của phiên trấn về sau[5].

Lúc này quân Bình Lư bị tấn công liên tiếp từ các bộ tộc Hề và Khiết Đan, đúng lúc đó quân Yên lại đến bức bách, tình thế nguy khốn. Hầu Hi Dật khích lệ tướng sĩ dưới quyền, sau đó đánh bại quân Yên do Lý Hoài Tiên chỉ huy. Nhưng về sau không được quân triều đình cứu viện nên Hầu Hi Dật đưa quân đội của mình về Thanh châu. Gặp lúc Điền Thần Công, Năng Nguyên Hạo ở Duyện châu, Hi Dật cử quân vây hãm Thanh châu, có chiếu cho ông làm Bình Lư, Tri Thanh tiết độ sứ. Từ thời điểm này, trấn Bình Lư còn được gọi là trấn Tri Thanh. Lý Hoài Ngọc tiếp tục phục vụ Hi Dật, tham gia cùng quân triều đình trong trận chiến tiêu diệt Sử Triều Nghĩa (763) của Đại Yên, được nhận chức Binh mã sứ[2].